Steering Black-Box Large Language Model Agents with Pitfall Anticipation World Model
坑点预测世界模型引导黑盒 LLM Agent
🧭 世界模型引导黑盒 LLM Agent ★ 深度解读
University of Wisconsin–Madison · AWS AI
用外部世界模型仅预测潜在坑点并选择性介入，SFT+GRPO 训练，显著提升黑盒 LLM Agent 成功率
📌 工作参考价值（4 点）
- 在电商/搜索的 Agent 工作流中，不要每步都注入外部知识；训练一个“坑点检测器”仅在预测到失败风险时介入，可大幅减少 API 调用并降低对主 Agent 的干扰。可复用 PAWM 的 gate 机制：世界模型输出 <pass> 或具体警示，主 Agent 仅在收到警示时才重新考虑动作。
- 构建训练数据时，利用成功/失败轨迹对比定位关键失误步骤，并用 LLM 生成抽象化、不泄露未来信息的坑点描述；对 <pass> 样本进行下采样以平衡正负比例（论文发现 0.75–1.0 的 pass-to-anticipation 比例最优），可迁移到业务中的异常检测/干预模型训练。
- 将辅助模型与黑盒主模型用 GRPO 联合训练：以任务成功率为奖励，用 group-relative advantage 更新辅助模型，能显著提高辅助模型在实际 Agent 中的有效性；训练出的辅助模型可跨多个黑盒主模型迁移，适合作为独立服务部署。
- 世界模型的输出内容设计：预测“到下一个子目标的多步未来”比预测下一步观察或完整剩余轨迹更有效；单步预测信息量不足，过长预测误差累积且可能误导。在推荐/搜索 Agent 的规划辅助模块中，应聚焦于有意义的里程碑边界。